OpenAI обявява нов съвет за безопасност след бунт на служители

OpenAI съобщи във вторник, че е основал нов комитет, който да дава рекомендации на борда на компанията по отношение на сигурността и сигурността, седмици след разпускането на екип, фокусиран върху сигурността на ИИ.

В обява в блог OpenAI сподели, че новият комитет ще бъде управителен от основния изпълнителен шеф Сам Олтман, както и Брет Тейлър, ръководител на борда на компанията, и член на борда Никол Селигман.

Съобщението следва високопоставеното овакантяване този месец на изпълнителен шеф на OpenAI, фокусиран върху сигурността, Jan Leike. Лейке подаде оставка от рецензиите на OpenAI, че компанията не е вложила задоволително в работата по сигурността на AI и че напрежението с управлението на OpenAI е „ достигнало точка на изкривяване “.

Това идва и след напускането на Иля Суцкевер, различен водач на по този начин наречения екип за „ суперподравняване “ на OpenAI, фокусиран върху гарантирането, че развиването на ИИ служи на човешките потребности и цели. Sutskever изигра основна роля в изненадващото премахване на Алтман от поста основен изпълнителен шеф предходната година, единствено с цел да обърне курса и по-късно да поддържа завръщането на Алтман.

По-рано този месец представител на OpenAI сподели пред CNN, че демонтирането на екипа за суперсъгласуване и преназначаването на тези чиновници в цялата компания ще му помогне да реализира по-добре задачите си за суперсъгласуване.

В обявата си в блога във вторник, OpenAI също сподели, че е почнал да образова нов AI модел, който да наследи този, който сега зарежда ChatGPT. Компанията сподели, че новият AI модел, който ще наследи GPT-4, ще бъде още една стъпка по пътя към изкуствения общ разсъдък.

„ Въпреки че сме горди да сътворяваме и пускаме модели, които са водещи в промишлеността както във връзка с качествата, по този начин и във връзка с сигурността, ние приветстваме мощен спор в този значим миг “, сподели компанията.

„ Първата задача на Комитета за сигурност и сигурност ще бъде да оцени и доразвие процесите и защитните ограничения на OpenAI през идващите 90 дни “, се прибавя в обявата в блога. „ В края на 90-те дни Комитетът по сигурност и сигурност ще показа рекомендациите си с целия ръб. След цялостния обзор на борда, OpenAI ще показа обществено актуализация на признатите рекомендации по метод, който е съчетаем с сигурността и сигурността. “